튜링상 수상자이자 강화학습의 창시자로 꼽히는 리처드 서튼(Richard Sutton)은 세계가 무한히 복잡하기 때문에 어떤 시뮬레이션도 현실을 충실히 재현할 수 없으며, 합성 데이터(synthetic data)로 대형 언어모델의 확장 한계를 돌파하려는 접근은 '큰 실수'라고 주장했다. 대신 인간을 개입시키지 않고 에이전트가 직접 경험하며 자신만의 세계 모델을 학습하고 지속적으로 수정하는 방식을 제안했으며, 학습 후 가중치가 고정되는 현재 언어모델의 한계를 지적하고 'Continual Backprop' 등 지속적 학습 방법의 필요성을 강조했다.
제프 베이조스가 인간 뇌의 에너지 효율과 지속적 학습 능력을 모방하려는 AI 스타트업 '플러리시(Flourish)'에 투자했습니다. 이 회사는 기존 LLM의 비효율성을 극복하고 50와트 이하의 전력으로 작동하는 인공 뇌 시스템인 '코르텍스 AI(Cortex AI)'를 개발하고 있습니다. 최고 수준의 신경과학자와 AI 연구자들이 협력하여 신경과학 실험을 통해 얻은 데이터를 바탕으로 AI의 작동 방식을 근본적으로 혁신하려는 시도로, 업계의 큰 주목을 받고 있습니다.
구글 딥마인드, 애플, 오픈AI 등 핵심 출신 연구진들이 AI 모델이 실제 사용자 피드백을 통해 실시간으로 학습·개선될 수 있는 '지속적 학습(Continual learning)' 플랫폼 스타트업 'Trajectory'를 설립했습니다. 이 회사는 코드 작성과 같이 검증이 쉬운 분야를 넘어, 기타 산업 분야의 AI 제품도 실사용 데이터를 기반으로 매주 발전할 수 있도록 돕는 솔루션을 제공합니다. 1,150만 달러의 시드 투자(시가표준액 1억 1,500만 달러)를 유치하며 제프 딘, 이비안 리 등 AI 업계 최고 전문가들의 지지를 받고 있다는 점에서 실무 및 업계에 시사하는 바가 큽니다.